Angriff per KI: US-Militär will autonom agierende Cyber-Würmer

Die US-Armee steht vor der Vergabe von Entwicklungs­auf­trä­gen für ein neues Programm namens "ECHOTRIBBLE", aus dem autonom agierende KI-Agenten hervorgehen sollen, die "feindliche" Compu­ter­systeme selbstständig angreifen und unschädlich machen sollen.

KI-Software soll eigenständig Ziele erkennen & angreifen

Im Rahmen des "ECHOTRIBBLE"-Programms will die US-Armee von kommerziellen Drittanbietern KI-Agenten entwickeln lassen, die zu offensiven Zwecken verwendet werden sollen. Die Software soll selbstständig Netzwerk-Infrastrukturen infiltrieren, mögliche Ziele identifizieren und diese dann "neutralisieren", so ein US-Medienbericht.

Wie das Magazin The Intercept auf Grundlage offizieller Dokumente berichtet, handelt es sich bei "ECHOTRIBBLE" um ein am Anfang stehendes Vorhaben, das vom Army Cyber Command (ARCYBER) ins Leben gerufen wurde, um damit Angriffsziele im digitalen Raum "komplett oder zeitweise auszuschalten, um die Bedrohung durch das Ziel zu entfernen".

KI-Computerwürmer sollen sich nach Erfolg zerstören

Aus dem Programm sollen offensiv nutzbare, modulare und autonom agierende KI-Agenten hervorgehen, die sich im Grunde wie Computerwürmer verhalten und verdeckt in feindliche Netzwerke eindringen, sich dort vervielfältigen und so verschiedene Geräte und Betriebssysteme infiltrieren sollen.

Die Aktivitäten der KI-Agenten sollen laut dem Lastenheft des US-Militärs möglichst unauffällig und ohne nachweisbare Spuren erfolgen. Dazu sollen die KI-Agenten in der Lage sein, ihre Ziele zu erkennen, zu neutralisieren und sich danach möglichst ohne Spuren selbst zu "zerstören".

Vor dem Hintergrund der von diversen KI-Anbietern zuletzt sowohl als eine Art Warnung als auch als eine Art Werbung veröffentlichten Berichte über angeblich "eigenmächtig" agierende KI-Agenten warnen Sicherheitsexperten laut The Intercept ausdrücklich davor, autonom agierende KI als Waffe zu nutzen. Problematisch sei an den Plänen des US Army Cyber Command vor allem, dass offen bleibt, wie genau die KI-Agenten ihre Ziele erreichen sollen.

Den KI-Agenten vollkommen freie Hand bei der Wahl ihrer Aktionen zu überlassen, könne daher auch drastische Folgen für US-Einrichtungen und dadurch negative Auswirkungen auf Bevölkerung, Wirtschaft und Infrastruktur mit sich bringen, so die Kritiker. Noch steckt das ECHOTRIBBLE-Programm in einem sehr frühen Stadium. Nach einer ersten Auswahl sollen bald Gelder und Verträge für die Entwicklung von Prototypen der Technologie an private Firmen vergeben werden.

Siehe auch: